Ngày 27 tháng 12 năm 1881, tuyến xe lửa Sài Gòn - Chợ Lớn (đường trên) được chính thức đi vào hoạt động do công ty Société générale des tramways de vapeur de Cochinchine (SGTVC) đầu tư xây dựng.

Mười năm sau, năm 1890, Công ty đường sắt Đông Dương (Tiếng Pháp: Compagnie Francaise de Tramways de l’Indochine; viết tắt là CFTI) ra đời. Công ty này đầu tư đường xe điện Sài Gòn - Chợ Lớn ở đường Dưới (nay là đại lộ Võ Văn Kiệt) mà nguời dân thường gọi là “đường xe lửa mé sông”, chạy từ đường Nguyễn Huệ dọc rạch Bến Nghé xuống Bình Tây.

Từ năm 1892 đến 1913, CFTI đã mở nhiều tuyến xe điện Sài Gòn - Hóc Môn đi qua Đa Kao, Tân Định, Bà Chiểu; tuyến Sài Gòn - Phú Nhuận và tuyến Gò Vấp - Lái Thiêu, sau đó kéo dài lên tận Thủ Dầu Một và một đoạn lên tận Lộc Ninh để phục vụ việc chuyên chở cao su, thường được gọi là “tuyến đường cao su”.

Tuy nhiên vào những thập niên cuối thế kỷ 19, thành phố vẫn chưa có hệ thống điện công cộng mạnh để phục vụ cho xe điện nên các xe này chỉ chạy bằng đầu máy hơi nước.

Năm 1896, nhà máy điện đầu tiên đã ra đời ở nơi mà nay là Công ty Điện lực Bến Thành, nằm phía sau Nhà hát Thành phố. Song nhà máy điện này cũng chưa đủ sức để điện khí hóa các xe điện. Phải đến đầu thế kỷ 20, khi xây dựng xong Nhà máy điện Chợ Quán thì quá trình “điện hóa” các tuyến hoàn thành.

Khoảng năm 1953, hệ thống xe điện Sài Gòn ngưng hoạt động vì sự tranh chấp giữa chính quyền và nhóm Bình Xuyên của Bảy Viễn.

Năm 1955 thì chính quyền Việt Nam cộng hòa chấm dứt các hợp đồng xe điện Sài Gòn với CFTI. [1]

Đến năm 1957 thì các tuyến tàu điện đã bị dỡ bỏ.

Tuy nhiên, vẫn còn đoạn đường ray chạy ở giữa đường đại lộ Hàm Nghi được dùng để làm tuyến đường sắt chuyên dùng ra cảng Sài Gòn để nhận bo bo do Liên Xô trợ cấp . Năm 1990 thì bị tháo dỡ hoàn toàn .